인공지능 윤리 - 중학교 정보

학습 목표

인공지능으로 발생할 수 있는 윤리 문제를 이해하고 설명할 수 있다.
데이터 수집·활용 과정에서 생기는 문제를 사례를 통해 분석할 수 있다.
인공지능을 책임 있게 사용하는 방법을 토론하고 실천할 수 있다.

💭

생각 열기

자율주행차가 사고 직전, 어쩔 수 없이 한쪽을 선택해야 한다면? 운전자를 보호할까, 보행자를 보호할까? 이런 질문에는 똑 떨어지는 정답이 없어요. 하지만 누군가는 반드시 함께 고민하고 결정해야 하죠.

🤔 기술이 발전할수록 "할 수 있는가?"보다 "해도 되는가?"를 묻는 일이 중요해져요. 이것이 바로 인공지능 윤리입니다.

1. 인공지능 윤리란?

AI Ethics

인공지능 윤리란 AI를 만들고 사용할 때 지켜야 할 도덕적 원칙이에요. AI가 사람과 사회에 해를 끼치지 않고 모두에게 이롭도록 신중하게 다루자는 약속이랍니다.

🌟 AI 윤리의 여섯 가지 핵심 원칙

⚖️

공정성

성별·인종·나이로 차별하지 않고 모두에게 공평하게

🔍

투명성

AI가 왜 그런 결정을 내렸는지 설명할 수 있어야

🛡️

개인정보 보호

사용자의 정보를 함부로 모으거나 흘리지 않기

🤝

책임

문제가 생기면 누가 책임질지 분명히 하기

🛟

안전성

사람에게 위험이나 해를 끼치지 않도록

🌍

이로움

사회와 환경에 도움이 되는 방향으로 쓰기

인터랙티브 ① · 당신의 선택은?

1 / 3

정답이 없는 윤리 딜레마예요. 먼저 선택한 뒤, 두 입장을 모두 들어 보세요.

2. 실제로 일어난 AI 윤리 문제

Real-world AI Ethics Issues

📹 편리함 뒤에 숨은 고민

AI 얼굴 인식을 붙인 CCTV는 길 잃은 아이나 범인을 찾는 데 도움이 되지만, 동시에 수많은 사람의 얼굴과 위치를 기록할 수도 있어요. 이렇게 AI는 편리함과 위험을 함께 가져옵니다. 아래 실제 사례들을 살펴봐요.

🚨 사례 1. 편향된 데이터로 인한 차별

한 회사의 채용 AI가 여성 지원자에게 낮은 점수를 주는 문제가 발생했어요. 과거 채용 데이터에 남성이 훨씬 많았던 탓에, AI가 "남성이 더 좋은 인재"라고 잘못 학습한 거예요.

💡 교훈: 데이터에 편향이 있으면 AI도 차별해요. 다양하고 공정한 데이터가 필요해요! (관련 원칙: 공정성)

🚨 사례 2. 챗봇의 개인정보 노출

한 AI 챗봇이 학습 과정에서 사용자가 입력한 이름·주소 같은 개인정보를 엉뚱하게도 다른 사람과의 대화에 그대로 노출시킨 사고가 있었어요.

💡 교훈: AI에게 개인정보를 함부로 알려주지 마세요! (관련 원칙: 개인정보 보호)

🚨 사례 3. 딥페이크 (얼굴·목소리 합성)

AI로 사람의 얼굴과 목소리를 진짜처럼 합성해 사기, 거짓 뉴스, 명예훼손에 악용하는 일이 늘고 있어요. 친구 얼굴을 도용해 합성물을 만드는 학교폭력도 실제로 일어나고 있답니다.

💡 교훈: AI로 만든 가짜를 진짜처럼 퍼뜨리는 것은 범죄예요! (관련 원칙: 안전성·인격권)

🚨 사례 4. 그림 AI와 저작권

그림 AI는 인터넷의 수많은 작품을 학습해요. 그런데 그중에는 화가가 동의하지 않은 그림도 많아요. AI가 특정 화가의 화풍을 그대로 따라 그린다면, 그것은 저작권 침해일까요?

💡 교훈: AI 학습에도 다른 사람의 권리(저작권)를 존중해야 해요. (관련 원칙: 책임)

인터랙티브 ② · 괜찮아요? 안돼요?

여섯 가지 상황에서 올바른 디지털 시민이라면 어떻게 행동할지 판단해 보세요.

이 행동, 괜찮을까요?

1 / 6

3. 우리가 지킬 일

What We Can Do

✅ 사용자로서

개인정보(이름·주소·비밀번호)를 AI에게 함부로 입력하지 않기
AI가 만든 결과를 무조건 믿지 말고 사실을 확인하기
딥페이크로 친구 얼굴을 합성하지 않기 (절대 ❌)
AI로 만든 콘텐츠는 "AI 생성"임을 표시하기

🛠️ 개발자로서 (미래의 우리!)

다양하고 공정한 데이터로 AI를 학습시키기
AI가 어떻게 결정했는지 설명 가능하게 만들기
사용자의 개인정보를 보호하는 시스템 설계하기
AI의 결과가 사람에게 해를 끼치지 않도록 꼼꼼히 검토하기

인터랙티브 ③ · 딥페이크 신호 찾기

진짜처럼 보이는 영상, 어떻게 의심할 수 있을까요? 위험 신호를 모두 골라 보세요.

📱

친구가 보낸 영상 속에서 유명 연예인이 "이 링크로 지금 송금하면 2배로 돌려준다"고 말하고 있어요. 어쩐지 이상한데… 이 영상이 딥페이크(가짜 합성 영상)일 수 있다는 신호를 모두 찾아 골라 보세요.

⬜눈을 거의 깜빡이지 않거나 표정이 부자연스럽다

⬜입 모양과 말소리가 미묘하게 어긋난다

⬜얼굴 경계나 머리카락, 귀 주변이 흐릿하게 번진다

⬜"지금 당장! 너만 아는 비밀!"처럼 조급하게 만든다

⬜믿을 수 있는 공식 언론사도 똑같이 보도하고 있다

⬜영상 속 인물이 평소 모습·말투와 자연스럽게 일치한다

4. 함께 토론해요

Let's Discuss Together

정답이 정해져 있지 않은 문제예요. 친구들과 서로 다른 입장을 나누며, 왜 그렇게 생각하는지 근거를 들어 보세요.

🚗

① 자율주행차의 사고

자율주행차가 사고를 냈어요. 그 책임은 누구에게 있을까요?

탑승자 자동차 회사 AI 개발자

📚

② AI로 한 숙제

숙제를 할 때 AI의 도움을 받는 것은 어디까지 괜찮을까요?

아이디어만 초안 작성 전부 맡기기

🎨

③ AI 그림 대회

AI로 그린 그림이 미술 대회에서 1등을 했어요. 이 수상은 정당할까요?

정당하다 부당하다 조건부 허용

💬 토론 팁: "나는 ~라고 생각해. 왜냐하면 ~" 형식으로 말해 보세요. 상대의 의견을 끝까지 듣고, 반대 입장도 한 번 상상해 보면 더 깊이 있는 토론이 돼요.

참고 — AI 윤리, 한 걸음 더 (성취기준 밖 심화)

⚖️ 편향·차별

채용·대출·범죄예측 AI가 특정 집단에 불리하게 판단한 사례가 있어요.

❓ 설명 가능성

AI가 "왜 그렇게 판단했는지" 설명할 수 있어야 믿고 쓸 수 있어요(XAI).

💼 일자리 변화

사라지는 일도, 새로 생기는 일도 있어요. 사람은 AI를 '다루는' 힘을 길러야 해요.

🌱 환경 비용

거대한 AI를 학습시키는 데는 엄청난 전기가 들어요. 효율적인 AI도 중요한 가치예요.

한눈에 정리

이 단원에서 꼭 기억할 내용이에요.

⚖️ AI 윤리의 6가지 원칙

공정성 · 투명성 · 개인정보 보호 · 책임 · 안전성 · 이로움 — AI는 사람을 위해, 사람을 해치지 않도록 만들고 사용해야 해요.

🧩 편향은 데이터에서 온다

AI가 차별하는 이유는 대부분 편향된 학습 데이터 때문이에요. 다양하고 공정한 데이터가 공정한 AI를 만들어요.

🔑 개인정보는 지킨다

비밀번호·주소 같은 개인정보는 AI에게 절대 입력하지 않기. 딥페이크로 타인을 합성하는 것은 범죄예요.

🏷️ 밝히고, 확인한다

AI 결과물은 그대로 믿지 말고 사실을 확인하기. AI로 만든 것은 "AI 생성물"임을 투명하게 밝히기.

확인 퀴즈

배운 내용을 확인해 봐요 · 총 6문제

Q1다음 중 AI 윤리의 핵심 원칙이 아닌 것은?

공정성

최대한 비싸게 팔기

투명성

개인정보 보호

Q2친구의 얼굴로 딥페이크 합성물을 만드는 행동에 대한 설명으로 옳은 것은?

재미있는 장난이니 괜찮다

친구가 모르면 문제없다

SNS에 올리지만 않으면 된다

학교폭력이자 범죄가 될 수 있다

Q3올바른 디지털 시민의 태도로 알맞지 않은 것은?

AI 결과의 사실 여부를 확인한다

개인정보를 함부로 입력하지 않는다

AI가 말한 것은 무조건 믿고 따른다

AI로 만든 것은 밝히고 공유한다

Q4채용 AI가 여성 지원자를 차별한 사건의 가장 큰 원인은?

과거 데이터에 남성이 훨씬 많은 편향된 데이터로 학습해서

AI의 계산 속도가 느려서

여성 지원자가 너무 많아서

AI가 일부러 사람을 차별해서

Q5AI 챗봇을 사용할 때 절대 입력하면 안 되는 것은?

오늘의 날씨를 묻는 질문

내 비밀번호와 집 주소 같은 개인정보

수학 문제 풀이 요청

좋아하는 책 추천 요청

Q6AI로 만든 그림이나 글을 다른 사람과 공유할 때 올바른 태도는?

내가 직접 만든 것처럼 속인다

출처를 일부러 지운다

유명 작가의 이름으로 올린다

"AI 생성물"임을 밝히고 공유한다

강력한 도구일수록,책임도 무거워요